Google се присъединява към коалиция за поставяне на водни знаци с изкуствен интелект, тъй като deepfakes удариха масовите технологични платформи

Гугъл съобщи в четвъртък, че ще се причисли към коалиция от софтуерни и медийни компании, в това число Adobe, Intel и Microsoft, която напредва в метод за сигнализиране, когато парче медия е основана или изменена от изкуствен интелект.

Гугъл сподели, че ще се опита да употребява план от Adobe, наименуван Content Credentials, който дава на основателите опция да прибавят дребен знак „ CR “ към AI медии. Този знак препраща към информация за това по кое време, къде и по какъв начин е била редактирана медията. Той ще действа като форма на метаданни, която демонстрира редактиране на AI и разрешава на феновете да ревизират изображения, видеоклипове, аудио и документи.

Групата, Коалицията за генезис и достоверност на наличието, или C2PA, не поддържа използването на такива ограничения върху цялото наличие, а вместо това го предлага като метод за институции като новинарски организации и платформи за обществени медии да споделят надеждни цифрови медии в ерата на бързо разрастваща се AI технология, която може да основава реалистични подправени медии и да трансформира безапелационно действителни медии.

„ Начинът, по който мислим, че се опитваме да разгадаем казуса, е първо, желаеме да имате способността да докажете като създател какво е правилно “, сподели Дана Рао, която управлява правната, сигурността и политиката на Adobe и е съосновател на обединението. „ И по-късно желаеме да научим хората, че в случай че някой се пробва да ви каже нещо, което е истина, той ще е минал през този развой и ще видите „ CR “, съвсем като знак за утвърждение „ Добро домакинство “.

Еволюцията на AI технологията направи допустимо автоматизирането на задания за редактиране, които преди този момент отнемаха доста време и бяха механически сложни, предоставяйки опцията за основаване на синтетична медия в ръцете на милиони хора. Това отвори вратата за креативен инициативи, както и за по-престъпни старания, в това число дезинформация и полово принуждение.

Това провокира някои старания или да се овладее технологията, или да се направи по-ясно по кое време нещо е било основан от AI. Една такава концепция, слагането на воден знак, има за цел да добави сигнали, някои явни и други фини, които биха улеснили разграничаването на същинско от подправено.

Гугъл сътвори набор от генеративни AI потребителски артикули като Bard, AI чатбот и принадлежности за редактиране и основаване на AI. Той също по този начин има YouTube, за който следствие на NBC News откри, че поддържа подправени новинарски канали с милиони гледания, които употребяват сходни AI принадлежности за изпомпване на подправено наличие.

„ В Гугъл сериозна част от Отговорният метод към AI включва работа с други в промишлеността, с цел да помогнем за увеличение на прозрачността към цифровото наличие “, сподели Лори Ричардсън, вицепрезидент по доверието и сигурността в Гугъл, в известие за пресата по отношение на присъединението на Гугъл към C2PA.

„ Ето за какво сме разчувствани да се присъединим към комитета и да включим най-новата версия на стандарта C2PA. Той се основава на нашата работа в това пространство – в това число SynthID на Гугъл DeepMind, Search About this Image и етикетите на YouTube, обозначаващи наличие, което е променено или синтетично – с цел да даде значим подтекст на хората, помагайки им да вземат по-информирани решения. “

Другите софтуерни компании, които се причислиха към C2PA, като Microsoft, по сходен метод сътвориха и вложиха в потребителска генеративна AI технология. Самата Adobe е пионер в инструментите за редактиране на цифрови медии преди популяризирането на AI, който Adobe в този момент включва в продуктите си, намалявайки бариерата за нахлуване в основаването на комплицирани, манипулирани медии в мащаб.

Тези бърз прогрес не са се освободили от следствията. В търсачките на Гугъл и Microsoft могат да се намерят неконсенсусни полово открити дълбоки подправени изображения на дами на звезди в най-хубавите резултати от търсенето за техните имена и думата „ deepfakes “. Подобен материал, който включва редактирани с изкуствен интелект действителни фотоси и напълно генерирани от изкуствен интелект фотоси, както и видеоклипове, които употребяват изкуствен интелект за „ замяна “ на лица и клониране на гласове, наводни главните обществени медийни платформи и избегна правни и наказателни средства.

Рао сподели, че идентификационните данни за наличието биха били потребни за инспекция на медиите, заслужаващи вести, в обстановки като военни зони и уточни войната Израел-Хамас като продължаващ образец за спор, при който поражда подозрение дали изображенията онлайн са действителни или манипулиран. Някои новинарски медийни организации станаха членове на C2PA, в това число The New York Times и BBC, а някои компании за фотоапарати като Canon вграждат Content Credentials в своята технология.

„ Медийната просветеност част от това е сериозно “, сподели Рао. „ Културната смяна, от която се нуждаем, е да проверим, след което да се доверим. “